Участвовал в Первой мировой войне, доброволцем — штабс-капитан Русской Императорской армии.
С 1919 г. — в Рабоче-Крестьянской Красной армии.
Во время гражданской войны в России — помощник командира полка.
После гражданской войны — на командных и штабных должностях, командовал полком.
В 1934–1936 гг.— начальник отдела боевой подготовки Приволжского Военного округа.
С 1937 г. — помощник начальника, в 1940–1941 гг. — заместитель начальника Оперативного управления Генштаба.
Во время Великой Отечественной войны (1941-1945) координировал действия Воронежского и Степного фронтов на южном фасе Курской дуги (совместно с Н. Ф. Ватутиным и Н. С. Хрущёвым).
В память пребывания Василевского в Курске на фасаде дома № 31 по ул. Димитрова (военный комиссариат Центрального округа) 30 июля 2003 г. установлена мемориальная доска.
Василевский — автор книги воспоминаний «Дело всей жизни» (1974).